Evaluation of Reallocation Heuristics for Moldable Tasks in Computational Dedicated and non Dedicated Grids

Grid services often consist of remote sequential or rigid parallel application executions. However, moldable parallel applications, linear algebra solvers for example, are of great interest but requires dynamic tuning which has mostly to be done interactively if performances are needed. Thus, their grid execution depends on a remote and transparent submission to a possibly different batch scheduler on each site, and means an automatic tuning of the job according to the local load. In this report we study the benefits of having a middleware able to automatically submit and reallocate requests from one site to another when it is also able to configure the services by tuning their number of processors and their walltime. In this context, we evaluate the benefits of such mechanisms on four multi-cluster Grid setups, where the platform is either composed of several heterogeneous or homogeneous, dedicated or non dedicated clusters. Different scenarios are explored using simulations of real cluster traces from different origins. Results show that a simple scheduling heuristic is good and often the best. Indeed, it is faster and thus can take more jobs into account while having a small execution time. Moreover, users can expect more jobs finishing sooner and a gain on the average job response time between 10% and 40% in most cases if this reallocation mechanism combined to auto-tuning capabilities is implemented in a Grid framework. The implementation and This text is also available as a research report of the Laboratoire de l’Informatique du Parallélisme http://www.ens-lyon.fr/LIP. in ria -0 05 09 39 3, v er si on 1 12 A ug 2 01 0 2 Y. Caniou, G. Charrier, F. Desprez the maintenance of this heuristic coupled to the migration mechanism in a Grid middleware is also simpler because less transfers are involved. Key-words: Reallocation, batch schedulers, meta-schedulers, computational grids, moldable tasks INRIA in ria -0 05 09 39 3, v er si on 1 12 A ug 2 01 0 Evaluation d’heuristiques de réallocation de tâches moldables dans les grilles de calculs dédiées et non dédiées Résumé : L’appel à des services présents sur les grilles de calcul correspondent généralement à l’exécution d’une application séquentielle ou rigide. Cependant, il est possible d’avoir des applications parallèles moldables, telles que des solveurs linéaires, qui sont d’un grand intérêt, mais qui demandent une adaptation dynamique pour obtenir de bonnes performances. Leur exécution nécessite donc d’avoir un accès distant et transparent à différents gestionnaires de ressources, demandant donc une adaptation automatique de l’application en fonction de la charge locale. Dans ce rapport, nous étudions les bénéfices découlant de l’utilisation d’un intergiciel de grille capable de soumettre et de réallouer des requêtes d’un site à l’autre tout en configurant automatiquement les services en choisissant le nombre de processeurs ainsi que la durée d’exécution estimée. Dans ce contexte, nous évaluons les gains apportés par de tels mécanismes sur quatre grilles de calcul différentes où la plate-forme est composée de plusieurs grappes, homogène ou hétérogènes, dédiées ou non. Nous explorons différents scénarios par la simulation de traces de tâches provenant de réelles exécutions. Les résultats montrent que l’utilisation d’une heuristique d’ordonnancement simple est efficace, souvent amplement suffisante, voire la meilleure. En effet, elle est plus rapide à l’exécution et permet de prendre plus de requêtes en compte. Les utilisateurs peuvent espérer une majorité de requêtes terminant plus tôt si elle est utilisée, ainsi qu’une réduction du temps d’attente du résultat d’entre 10% et 40% dans la plupart des cas lorsque le mécanisme de réallocation couplé à l’adaptation automatique sont présents dans l’intergiciel. De plus, l’implantation et la maintenance de cette heuristique couplée au mécanisme de migration de tâches dans un intergiciel de grille est aussi plus facile car moins de tranferts sont nécessaires. Mots-clés : Réallocation, ordonnanceurs batch, méta-ordonnanceurs, grilles de calcul, tâches moldables in ria -0 05 09 39 3, v er si on 1 12 A ug 2 01 0 4 Y. Caniou, G. Charrier, F. Desprez